„Технологична фирма открадна нашите гласове – след това ги клонира и ги продаде“

Идеята, че изкуственият разсъдък може един ден да заеме работата ни, е обръщение, което доста от нас ще чуят през последните години.

Но за Пол Скай Лерман това предизвестие е изключително персонално, смразяващо и ненадейно: той чу личния си глас да го произнася.

През юни 2023 година Пол и неговата партньорка Линеа Сейдж караха покрай дома си в Ню Йорк, слушайки подкаст за продължаващите стачки в Холивуд и по какъв начин изкуственият разсъдък (AI) може да повлияе на промишлеността.

Епизодът съставлява интерес, тъй като двойката е глас зад кадър и - като доста други рекламни послания - боязън, че гласови генератори с човешки тон скоро могат да бъдат употребявани, с цел да ги заменят.

Този съответен подкаст имаше неповторима кукичка – те интервюираха работещ с AI чат бот, оборудван със програмен продукт за превръщане на текст в тирада, с цел да попитат по какъв начин счита, че потреблението на AI ще се отрази на работните места в Холивуд.

Но когато проговори, прозвуча тъкмо като господин Лерман.

„ Трябваше да спрем колата “, сподели той.

„ Иронията е, че AI идва за развлекателната промишленост и ето гласът ми, който приказва за евентуалното заличаване на промишлеността, беше в действителност много шокиращо. "

Тази нощ те прекараха часове онлайн, търсейки улики, до момента в който не попаднаха на уеб страницата на платформата Lovo за превръщане на текст в тирада. Веднъж там госпожа Сейдж сподели, че е намерила и копие на гласа си.

„ Бях зашеметена “, сподели тя. „ Не можех да допускам. “

„ Една софтуерна компания открадна нашите гласове, направи клонинги от тях с ИИ и ги продаде евентуално стотици хиляди пъти. "

Сега те са завели дело против Лово. Фирмата към момента не е дала отговор на това или на настояванията на BBC за коментар.

Клонирани войни

Но по какъв начин Лово съумя да пресъздаде гласовете им? Двойката твърди, че това е направено под подправен предлог.

Съоснователят на Lovo Том Лий по-рано сподели, че неговият програмен продукт за клониране на глас се нуждае единствено от консуматор, с цел да прочете към 50 фрази да създадем правилен клонинг.

" Можем да осезаем тонът, характерът, стилът, фонемите и даже в случай че имате акцент, можем да осезаем и това “, сподели той пред подкаста Future Visionaries през 2021 година

В делото си двойката излага по какъв начин съгласно тях Лово е получил тъкмо подобен запис от тях.

Те настояват, че анонимни чиновници на Lovo са се свързали с тях, с цел да запишат аудио активи във Fiverr, известния уеб страница за гении на свободна процедура, където продават услугите си за даване на аудио за телевизия, радио, видео игри и други медии.

Първо, през 2019 година госпожа Сейдж споделя, че консуматор се е свързал с молба да запише десетки тестови радио скриптове за общ тон.

Тестовите записи постоянно се употребяват във филмите и малкия екран за фокус групи, вътрешни срещи или като заместители за настояща работа. Тъй като няма да се споделят необятно, тези записи костват доста по-малко от аудиото, предопределено за лъчение.

Г-жа Сейдж споделя, че е свършила работата, доставила е файловете и са й платени $400 (£303).

Около шест месеца по-късно господин Лерман споделя, че е получил сходна поръчка за запис на десетки радиореклами с общ тон.

В известията, които двойката е споделила с BBC, анонимният консуматор на Fiverr споделя, че аудиото ще бъде употребявано за проучване на „ синтез на тирада “.

След като изиска от потребителя да подсигурява, че скриптовете няма да бъдат употребявани отвън неговия съответен проучвателен план, господин Lehrman пита какво задачата на плана е.

„ Скриптовете няма да се употребяват за нищо друго “, споделя потребителят, „ и към момента не мога да ви кажа задачата, защото това е поверителна работа в развой скърбя хаха ".

Г-н Lehrman попита дали готовите файлове ще бъдат преназначени или употребявани в друг ред. Потребителят споделя, че файловете ще бъдат употребявани единствено за проучвателен цели. Г-н Lehrman споделя, че е доставил файловете и му е било платено $1200.

Връзката сред анонимния консуматор и Lovo идва, споделят те, от самия Lovo.

Те споделиха доказателствата, които са разкрили, че гласовете им са били клонирани с Лово - който дадоха отговор, че не са създали нищо неприятно, като показаха връзката сред тях с анонимния консуматор като доказателство, че са се свързали с двойката законно.

„ В нашата кариера сме доставили над 100 000 аудио актива “, сподели господин Лерман за тяхната работа върху Fiverr през по-голямата част от десетилетие.

„ Успяхме да намерим тази игла в купа сено - те ни дадоха тази игла в купа сено. “

И в двата случая господин Лерман и госпожа Сейдж споделят, че не са имали писмен контракт, а единствено тези диалози. BBC не съумя да ревизира цялостния им диалог. Двойката споделя, че потребителят, с който са говорили, също наподобява е изтрил някои известия.

BBC се свърза с Лово няколко пъти, с цел да изиска изявление с господин Лий и да търси отговор на изказванията на двойката. Те не дадоха отговор на нито едно от нашите известия.

Какво споделя законът?

Делото, което двойката заведе през май, твърди, че Лово е употребявал записи на техните гласове, с цел да сътвори копия, които нелегално се конкурират с същинските на госпожа Сейдж и господин Лерман гласове.

Двойката споделя, че компанията е направила това без позволение или подобаваща отплата.

Това е групов иск - което значи, че се надяват други ищци да се причислят към него, макар че никой до момента не е.

Професор Кристелия Гарсия, специалист по право на интелектуалната благосъстоятелност в университета Джорджтаун във Вашингтон, окръг Колумбия, споделя, че казусът евентуално е концентриран върху област от американското право, наречена права на гласност.

Понякога наричани права на личността, нарушаванията на нечия гласност постоянно идват от корист или неправилно показване на нечий облик или глас.

Тя също по този начин споделя, че евентуално може да има нарушаване на контракта във връзка с лицензите, предоставени от госпожа Сейдж и господин Лерман на потребителя, който е поръчал записите.

" Лицензите са позволение за доста характерна и тясна приложимост. Може да ви дам лиценз да употребявате плувния ми басейн един следобяд, само че това не значи, че можете да идвате, когато пожелаете, и да организирате празненство в моя басейн “, сподели тя пред BBC.

" Това би надхвърлило изискванията на лиценза. "

Какъвто и да е резултатът от казусът е още един в дълъг лист от правосъдни каузи, заведени от художници, създатели, илюстратори и музиканти, които не желаят да изгубят надзор върху работата и прехраната си.

И те евентуално ще бъдат единствено върхът на айсберга. Тази седмица финансовата компания Klarna го сподели.

Някои специалисти предвиждат, че в последна сметка ще бъдат повлияни от AI

За господин Лерман и госпожа Сейдж обаче това обезпокоително бъдеще се разиграва в този момент.

„ Цялото това прекарване наподобява толкоз сюрреалистично “, госпожа Сейдж сподели.

„ Когато мислехме за изкуствен интелект, мислехме за AI, който да сгъва прането ни и да ни подготвя вечеря, а не да преследваме креативните инициативи на хората. “

Можете да чуете повече за тази история на, на BBC Sounds.